हाल ही में OpenAI ने एक महत्वपूर्ण नीति अपडेट की घोषणा की, जिसका उद्देश्य अपने कृत्रिम बुद्धिमत्ता मॉडल के प्रशिक्षण के तरीके को बदलना है, और ‘ज्ञान की स्वतंत्रता’ के महत्व पर जोर देना है, चाहे विषय कितनी भी चुनौतीपूर्ण या विवादास्पद क्यों न हो। इस बदलाव का मतलब है कि ChatGPT सवालों के उत्तर अधिक व्यापक रूप से देगा, अधिक दृष्टिकोण प्रदान करेगा, और कुछ विषयों पर चर्चा करने से इंकार करने की घटनाओं को कम करेगा। नए 187-पृष्ठ मॉडल दिशा-निर्देश में, OpenAI ने एक नया सिद्धांत पेश किया: झूठ मत बोलो, न ही असत्य कथन करें और न ही महत्वपूर्ण संदर्भ को छोड़ें।

हाल ही में, Nvidia ने अपने NeMo Guardrails प्लेटफ़ॉर्म पर तीन नई सुरक्षा सुविधाओं की घोषणा की है, जिसका उद्देश्य व्यवसायों को AI चैटबॉट्स को बेहतर ढंग से प्रबंधित और नियंत्रित करने में सहायता करना है। ये सूक्ष्म सेवाएं AI सुरक्षा और सामग्री समीक्षा से संबंधित सामान्य चुनौतियों के लिए विशिष्ट रूप से बनाई गई हैं, जिनमें कई व्यावहारिक समाधान शामिल हैं। इनमें, सामग्री सुरक्षा सेवा (Content Safety) AI के उपयोगकर्ता को प्रतिक्रिया देने से पहले उसके सामग्री की समीक्षा करके संभावित हानिकारक जानकारी की पहचान कर सकती है। यह सेवा हानिकारक जानकारी को रोकने में मदद करती है।

फ्रांसीसी आर्टिफिशियल इंटेलिजेंस स्टार्टअप Mistral AI ने हाल ही में सामग्री समीक्षा के लिए एक नई API लॉन्च की है, जो OpenAI और अन्य उद्योग नेताओं के साथ प्रतिस्पर्धा करने के साथ-साथ बढ़ती हुई AI सुरक्षा और सामग्री फ़िल्टरिंग समस्याओं का सामना करने के लिए है। यह सेवा Mistral के Ministral8B मॉडल पर आधारित है, जिसे नौ विभिन्न श्रेणियों में संभावित हानिकारक सामग्री का पता लगाने के लिए सूक्ष्मता से अनुकूलित किया गया है, जिसमें अश्लील सामग्री, नफरत भरी टिप्पणी, हिंसा, खतरनाक गतिविधियां और व्यक्तिगत पहचान योग्य जानकारी शामिल है।

📷 छवि फ़िल्टर: OpenAI ने एक विशेष छवि वर्गीकरण उपकरण प्रशिक्षित किया है जो संदिग्ध पैटर्न की पहचान कर सकता है ताकि परेशान करने वाली सामग्री के उत्पादन को रोका जा सके। 📷 सांस्कृतिक पूर्वाग्रह: DALL-E 3 अभी भी सांस्कृतिक पूर्वाग्रहों का सामना कर रहा है, जो सामान्यतः पश्चिमी संस्कृति की ओर झुकता है, विशेष रूप से अस्पष्ट संकेतों में। ⛔ कॉपीराइट मुद्दे: OpenAI ने स्वीकार किया है कि सभी सुरक्षा उपायों के बावजूद, प्रत्येक संयोजन की भविष्यवाणी नहीं की जा सकती है, जिससे उत्पादन की गई छवियों में कॉपीराइट सामग्री दिखाई दे सकती है।

GPT-4 कुछ घंटों में मानव द्वारा किए गए कई महीनों के समीक्षा कार्य को पूरा कर सकता है। सामग्री समीक्षा के लिए GPT-4 का उपयोग अधिक सुसंगत लेबलिंग और तेजी से नीति प्रतिक्रिया चक्र प्राप्त कर सकता है। GPT-4 का उपयोग करके सामग्री समीक्षा करने से मानव समीक्षकों पर मनोवैज्ञानिक बोझ को कम किया जा सकता है।

Hive AI एक सॉफ्टवेयर कंपनी है जो डिजिटल सामग्री की समीक्षा के लिए कृत्रिम बुद्धिमत्ता तकनीक का उपयोग करती है। जानकार सूत्रों के अनुसार, यह कंपनी 200 मिलियन डॉलर की फंडिंग की तलाश में है। अनुमान है कि इसका मूल्यांकन 2021 के 2 बिलियन डॉलर से अधिक हो जाएगा। Hive AI का मूल्यांकन 4 बिलियन डॉलर के करीब हो सकता है।